Họ và tên thật của Andy là Andrew Murray. Anh bắt đầu chơi quần vợt từ năm 3 tuổi. Mẹ anh, bà Judy là một cựu tay vợt của Scotland và cha anh là ông William. Anh có một anh trai là Jamie Murray cũng là một tay vợt nhưng thường thi đấu ở thể loại đánh đôi.

Murray từng là học sinh của trường tiểu học Dunblane từ năm 1992 đến năm 1999. Năm 1999, anh học ở trường trung học Dunblane. Năm 11 đến 13 tuổi, Andy là thành viên của 3 đội quần vợt nhỏ tuổi tại câu lạc bộ Next Generation ở Newhaven, Edinburgh - nơi anh thi đấu thường xuyên. Vào tuổi 14, Murray đến Barcelona ở Tây Ban Nha, nơi anh đã học trường Schiller International và tập luyện trên mặt sân đất nện của học viện Sanchez-Casal, nơi mà anh được cho biệt danh "Lazy English" (người Anh lười). Murray giành giải nam trẻ tại US Open năm 2004 và tốt nghiệp sau đó một năm.